Кампанията на шерифа на Филаделфия премахва фалшиви „новини“, публикувани на сайта, които са генерирани от AI
ФИЛАДЕЛФИЯ — Екипът на кампанията зад изпадналия в затруднение шериф на Филаделфия призна в понеделник, че поредица от положителни „новини“, публикувани на сайтът им е генериран от ChatGPT.
Кампанията на шериф Рошел Билал премахна повече от 30 истории, създадени от консултант, използващ генериращия AI chatbot. Този ход дойде, след като материал на Philadelphia Inquirer в понеделник съобщи, че местните новинарски издания не могат да намерят историите в архивите си.
Експерти казват, че този тип дезинформация може да подкопае общественото доверие и да застраши демокрацията. Кампанията на Билал каза, че историите са базирани на реални събития.
„Нашата кампания предостави външни консултантски точки за разговор, които след това бяха предоставени на услугата AI“, се казва в изявление на кампанията. „Сега е ясно, че услугата за изкуствен интелект генерира фалшиви новинарски статии, за да подкрепи инициативите, които бяха част от подканата на AI.“
Големите езикови модели като ChatGPT на OpenAI работят, като многократно прогнозират най-много правдоподобна следваща дума в изречение. Това ги прави добри в изпълняването на предизвикателни подкани за секунди, но също така ги кара да правят чести грешки, известни като халюцинации.
Много американци са започнали да използват тези инструменти за писане на служебни имейли, копия на уебсайтове и други документи по-бързо. Но това може да доведе до проблеми, ако не дадат приоритет на точността или внимателно не проверят материала.
Двама адвокати трябваше да се извинят на съдия във федералния съд в Манхатън миналата година, например, след като са използвали ChatGPT за търсене на правни прецеденти и не са забелязали веднага, че системата е измислила някои.
Майк Нелис, основател на инструмента за кампания с изкуствен интелект Quiller, нарече използването на консултанта по кампанията на AI „напълно безотговорно“.
„Неетично е“, каза той. „Това е направо лъжа.“
Но той каза, че OpenAI е отговорен за прилагането на своите политики, които не позволяват на хората да споделят изход от продуктите му, за да измамят или подведат хората.
OpenAI също не позволява на хората да използват неговите системи за изграждане на приложения за политически кампании или лобиране, въпреки че няма доказателства, че това се е случило в този случай. OpenAI не отговори веднага на искане за коментар.
Нелис каза, че местното, щатското и федералното регулиране на AI инструментите в политиката също е необходимо с напредването на технологията. Въпреки че двупартийните дискусии в Конгреса подчертаха необходимостта от такова законодателство, все още не е приет федерален закон.
Списъкът с историите на Билал, който сайтът нарече нейния „Рекорд на постиженията“, завърши с отказ от отговорност — който Inquirer нарече нов — че информацията „не прави декларации или гаранции от какъвто и да е вид“ относно точността на информацията.
Някои, включително уволнен информатор в офиса на Билал, опасявам се, че подобна дезинформация може да обърка гласоподавателите и да допринесе за продължаващото недоверие и заплахи за демокрацията.
„Имам сериозни притеснения относно това“, каза Брет Мандел, който за кратко беше неин финансов директор през 2020 г. и говори преди кампанията да излезе с изявлението.
„Мисля, че сме свидетели на местно и национално ниво не само на пренебрежение към истината и институциите, които сме смятали за пазачи на истина,” каза той, „но мисля, че сме подкопали цялото доверие в тази област.”
Мандел заведе един от няколкото дела за подаването на сигнали срещу службата. Той твърди, че е бил уволнен, защото е изразил опасения относно финансите на офиса. Билал беше критикуван по време на мандата си относно разходите за офиса, финансовите отчети на кампанията, докладваната загуба на стотици оръжия и други проблеми.
Списъкът с новини, който включва предполагаеми дати на публикуване, приписва четири новини на Inquirer, нито една от които не е в архивите на вестника, каза говорителят Евън Бен. Другите бяха приписани на три местни радиостанции - WHYY, WCAU и KYW.
Асошиейтед прес
